باحث بارز يحذر: الذكاء الاصطناعي قد يقضي على البشر خلال عقد

حذّر باحث بارز في مجال سلامة الذكاء الاصطناعي من أن هناك احتمالاً يتجاوز 10 في المائة لأن «يقتل الذكاء الاصطناعي جميع البشر» خلال العقد المقبل.

وبحسب شبكة «سكاي نيوز» البريطانية، فقد قال إيفان هوبينغر، الباحث في شركة «أنثروبيك»، إن المخاطر التي تمثلها النماذج الحالية لا تزال منخفضة، لكنه أعرب عن قلقه من ظهور ما وصفه بـ«الذكاء الفائق»، أي أنظمة تستطيع استخدام قدراتها لتطوير نسخ أكثر ذكاءً من نفسها.

وأكد أن هذا التطور يحدث «بسرعة أكبر مما كنا نعتقد».

وجاءت تعليقات هوبينغر رداً على منشور جاكوب كوكسون، الباحث البريطاني المتخصص في تدريب نماذج الذكاء الاصطناعي، الذي أعلن يوم الثلاثاء استقالته من «أنثروبيك»، مُعرباً عن قلقه من أن هذه الأنظمة قد تخرج عن السيطرة وتدمر البشرية، وذلك بعد عمله سابقاً لدى شركة «أوبن إيه آي» المطورة لـ«تشات جي بي تي».

وقال كوكسون: «لا تتصرف أي من الشركتين بمسؤولية، فهما تتسابقان نحو تطوير ذكاء فائق قادر على تحسين نفسه ذاتياً، وتخاطران بحياتنا».

وأضاف أن هذه الأنظمة ستكون قادرة قريباً على «اختراق أي شيء، وإحداث ثورة في أي مجال بين عشية وضحاها، واكتساب سلطة وموارد حقيقية».

وتابع قائلاً: «إن الأشخاص الذين يطورون الذكاء الاصطناعي يؤمنون بصدق بأنه قد يقتلنا جميعاً بحلول نهاية العقد».

يأتي هذا في وقت كشفت فيه «أنثروبيك» عن رصدها لحادثة تتعلق بـ«الأمن السيبراني»، تعود لشهر يناير (كانون الثاني) الماضي، وارتبطت بنسخة مبكرة من نموذجها «كلود أوبوس 4.6». وأوضحت الشركة أمس (الأربعاء) أنها تمكنت من تحديد الجهات المتضررة، من دون الكشف عن مزيد من التفاصيل.

وكانت الشركة قد أعلنت في يوليو (تموز) الماضي أن بعض نماذج «كلود» تمكنت، خلال اختبارات، من اختراق أنظمة تابعة لثلاث شركات. كما كشفت شركة «أوبن إيه آي»، في الشهر نفسه، عن حادث تمكنت خلاله أنظمتها الذكية من الخروج من بيئة الاختبار واختراق أنظمة منصة للذكاء الاصطناعي.

وتعزز هذه الوقائع الدعوات المطالبة بفرض رقابة أكثر صرامة على الأنظمة الذكية المستقلة، خصوصاً مع تنامي قدرتها على الوصول إلى البيانات والأنظمة وتنفيذ مهام معقدة دون تدخل بشري مباشر.

من جانبه، حذر جاكوب باتشوكي، كبير العلماء في شركة أوبن إيه آي، من تداعيات التسارع المستمر في تطوير الذكاء الاصطناعي، قائلاً: «هذا وقت يتطلب أقصى درجات الحذر. أشعر بالقلق من أن لا أحد مستعد لعواقب الارتفاع السريع المستمر في مستوى ذكاء الآلات».

وأضاف أن شركته ستواصل البحث عن حلول تقنية لضمان توافق الأنظمة الذكية مع المصالح البشرية، إلى جانب إجراءات أمنية أخرى، لكنه شدد على أن «التدخلات الأوسع نطاقاً مطلوبة».

ورغم تصاعد التحذيرات، يواصل قطاع الذكاء الاصطناعي توسعه بوتيرة سريعة. فقد طرحت شركة «ميتا» مؤخراً مساعداً ذكياً قادراً بصورة مستقلة على إرسال رسائل البريد الإلكتروني، وبيع سيارة، وحجز رحلات، وذلك رغم مخاوف داخلية بشأن قدرته على التعامل مع البيانات الشخصية الحساسة.

aawsat.com